一篇最新報導指出，生成式人工智慧已能產出真偽難辨的內容，導致公眾信任從此轉向懷疑，這不僅威脅人工智慧在各領域的應用合法性，更可能侵蝕民主社會賴以維繫的基礎。專家疾呼，應立即透過技術（如數位浮水印）、法規（嚴懲惡意深偽）及公眾教育來建立信任防線，否則人工智慧恐將自毀前程。
隨著科技快速發展，生成式人工智慧（Generative AI）工具已能創造出足以亂真的圖像、影片、聲音及文字。這些內容從最初名人換臉、聲音模仿等新奇應用，逐漸深化至影響公眾生活，模糊了真實與虛構之間的界線。專家警告，這種真偽難辨的趨勢，正對人工智慧（AI，人類製造出來的機器所表現出來的智能）本身的未來構成嚴峻挑戰，甚至可能導致其自我毀滅。
《The Express Tribune》報導指出，目前網路上已充斥著公眾人物發表煽動性言論的假影片、捏造不存在戰爭場景的圖像，以及合成聲音傳達虛假供詞的案例，且這些內容越來越難以被偵測。當人工智慧生成內容的擬真度不斷提高，人類對資訊的預設反應正從信任轉向懷疑。對於人工智慧而言，這是一個攸關其生存的根本問題。
報導強調，人工智慧在醫療、教育、新聞和政府治理等領域的有效應用，都高度依賴公眾對其產出內容的信任。如果人工智慧最終成為欺騙和操縱的代名詞，大眾恐將產生「一切皆假，故無關緊要」的虛無主義感受，進而導致公眾的反彈與拒絕。這種幻滅感對依賴共享事實進行知情辯論與問責的民主社會來說，尤其具有腐蝕性。
一旦信任崩潰，人工智慧在公共領域將面臨被畏懼、嚴格監管或徹底棄用的風險，這將嚴重危及開發這些工具企業的長期社會合法性。該文章主張，人工智慧面臨的主要威脅並非來自外部反彈或法規，而是其自身能力可能侵蝕信任。因此，人工智慧生成的內容必須從設計之初就具備機器可偵測、永久且防竄改的數位浮水印。
為應對此一挑戰，報導呼籲建立一套全球性的數位內容驗證基礎設施，類似於現有監測選舉或核材料的國際機構。同時，對於惡意運用深偽技術（deepfake）的行為，應施以嚴厲懲罰，將利用人工智慧進行捏造、煽動、詆毀告密者或操縱選舉等視為嚴重的刑事犯罪。公眾也需要接受「實境素養」教育，以辨識在這個真假難辨的資訊環境。
人工智慧開發商也應重新思考對「完美擬真」的追求，因為這可能導致社會崩潰，破壞驗證的可能性，反而是一種自我毀滅而非創新。儘管人工智慧仍有機會在倫理規範與問責機制下發展，但文章警告，若不立即採取行動，在玩世不恭成為不可逆轉的常態之前，人工智慧的發展軌跡恐將陷入一個悖論：其智能的提升反而會損害智能（無論是人類或人工智慧）賴以存在的價值基礎——信任、真相和有意義的參與。